Ukradziono naszą tożsamość. Podcast „Wprost Przeciwnie” wykorzystano do oszustwa

Muszę przyznać, że do niedawna zagrożenia związane z rozwojem AI trochę bagatelizowałam. Albo inaczej – jestem ich świadoma, ale w sumie dość naiwnie sądziłam, że to rozdmuchany problem, który mnie w jakiś magiczny sposób ominie.

Oczywiście śledzę doniesienia na ten temat, przez moje dłonie przechodzą często teksty, które o sztucznej inteligencji publikujemy w „Magazynie Wprost PREMIUM”. Czytam na ten temat dużo.

Być może nawet wiadomość o tym, że znany naukowiec, Andrzej Dragan, fizyk kwantowy i popularyzator nauki, stworzył dzięki AI klip do nowego singla Quebonafide pt. „Futurama 3” – nie zelektryzowałaby mnie tak bardzo – podeszłabym do niego na zasadzie, „co oni znowu wymyślili?”...

Gdyby nie fakt, że jego premiera właściwie zbiegła się z socjalmediową „premierą” pewnego deepfake’a, w którym mimowolnie się znalazłam.

„To jest bandyctwo”

Piątek, 22:39 (podaję tę godzinę specjalnie, ale o tym za moment). Dostaję wiadomość od „Mądrej Babci”. Wklejony jakiś dziwny link i komentarz:

„Zobacz, jakie oszustwo nas spotkało. To jest bandyctwo. Zgłaszamy do FB, ale to nic nie daje”.

Po takim wstępie nie mogłam nie otworzyć linka. I wtedy zamarłam. Na „nagraniu” widać mnie, słychać nawet mój głos, ale zmodyfikowany. Głos pozbawiony jest jakiejkolwiek modulacji. Z delikatnym komputerowym brzmieniem. Samo nagranie też dalekie jest od jakości, którą dajemy państwu w podcastach…

Mówię na nim o „innowacyjnym produkcie leczniczym”, który Beata Borucka miała wprowadzić na rynek (miała nazwać oszustami tych, którzy w „2024 roku nadal leczą nadciśnienie tradycyjnymi tabletkami”).

I wtedy wchodzi „Mądra Babcia” i mówi o skutkach ubocznych większości leków, które „zabijają szybciej niż zawał serca czy udar”. I że jej zespół opracował innowacyjny produkt, który „w ciągu 3 dni usuwa objawy nadciśnienia i zaczyna regenerować serce od wewnątrz, poprawia pamięć, rozpuszcza zakrzepy, uruchamia organizm na pełnych obrotach”. Dodaje, że wystarczy zażywać go raz dziennie, by zapomnieć o nadciśnieniu, arytmii etc. I że produkt zmienił życie 100 tysięcy osób z Czech, Słowacji i Polski.

Na co ja odpowiadam, że to imponujące wyniki. I dopytuję, gdzie można znaleźć szczegóły dotyczące tego leku.

Borucka uzupełnia, że „jest dostępny dla każdego, kto chce zmienić swoje życie”. – Ja jedynie oferuję sprawdzony sposób leczenia. Wszystko, co musicie zrobić, to wykonać pierwszy krok. Dowiedzcie się więcej o produkcie, a zmiana na lepsze będzie bliżej niż wam się wydaje – mówi.

Całość opublikowana na jakimś „koncie krzak”. Ale to wiem ja. Przypadkowy internauta dostaje nagranie z udziałem idolki seniorów, „Mądrej Babci”, która opowiada o tajemniczym specyfiku. Prawdziwej rewolucji...

„Jestem przerażona”

Od razu widzę, że facebookowe konto, które kolportuje tego deepfake’a jest „lewe”, że ani moja podcastowa rozmówczyni, ani ja – nie brzmimy tak w rzeczywistości. W końcu wiem, że nie rozmawiałyśmy o żadnym magicznym leku na nadciśnienie. Nigdy w życiu.

I znowu: to wiemy my, nasi słuchacze i widzowie, znajomi i współpracownicy. Zaś przypadkowy emeryt (co oczywiste, oszustwo wymierzono w grupę odbiorców „Mądrej Babci”, czyli korzystających z sieci silversów) tego już nie wie.

Zresztą, czy w tej reklamie chodzi faktycznie o jakikolwiek lek? A może to próba zdyskredytowania świetnie radzącej sobie w sieci „Mądrej Babci”?

– Jestem nie tyle oburzona, co przerażona. Bezprawnie użyty wizerunek to w mojej opinii kwestia drugoplanowa. Te materiały narażają moich gości (w SilverTV – red.)i rozmówców, a co najgorsze nabywców preparatów niewiadomego pochodzenia – mówi Beata Borucka.

– Latami pracujemy na naszą wiarygodność i zaufanie społeczności i taki bandycki proceder rujnuje to w jednej chwili. Kiedy dostaję linki do tych deepfake’ów, oczywiście zgłaszam je do FB. Oni blokują zgłoszony profil, ale co z tego, jak powstają nowe i tak bez końca. Zasięgałam rady prawnika, który powiedział, że sprawcy są nie do ustalenia więc to walka z wiatrakami. Jestem tylko jedną z ofiar tego nie niecnego procederu, a jest nas setki. I co mamy zrobić? – pyta „Mądra Babcia”.

Dlaczego kilka akapitów wyżej podałam dokładną godzinę pierwszej wiadomości od Beaty Boruckiej na temat deepfake’a, w którym się znalazłyśmy? Bo kiedy piszę te słowa jest niedzielne przedpołudnie, godzina 11:32 i do tej pory to nagranie jest dostępne na Facebooku. Mimo reakcji Boruckiej, „Wprost” i mojej, a także poproszonych przeze mnie o „zgłaszanie” tego nagrania osób.

Jak ta historia się skończy? Jeszcze nie wiem. Ale jedno jest pewne: To się dzieje naprawdę i teraz od nas, ludzi którzy są w stanie wychwycić jednolity, dość „komputerowy” ton głosu, fatalną jakoś nagrania, kiepski montaż, sześciopalczaste dłonie na przerobionych przez AI zdjęciach zależy, czy krytyczne myślenie i konieczność weryfikowania treści z sieci zaszczepimy i u naszych dzieci, i – tu działka Bety Boruckiej – u seniorów.

Inaczej bezkarni oszuści od deepfake'ów zawładną nie tylko socialmediami.